Jos rakennamme yleisen tekoälyn-
kyseessä on suurin tapahtuma maapallon elämän historiassa.
Tietokonejärjestelmässä oleva vieras äly-
joka hallitsee koko planeettaa heti saavuttuaan.
Science fictionissa se on jo nähty.
YLEINEN TEKOÄLY (A.G.I.)
IHMISTÄ JOKA TAVOIN PAREMPIA KONEITA
IHMISÄLY VASTAAN YLEINEN TEKOÄLY
NYKYISYYS VASTAAN TULEVAISUUS
2001: AVARUUSSEIKKAILU (1968)
Mikä on ongelmana?
Taidat tietää ongelman aivan yhtä hyvin kuin minäkin.
Mitä tarkoitat, HAL?
Tehtävä on liian tärkeä antaakseni sinun vaarantaa sitä.
En tiedä, mistä puhut, HAL.
HAL, superälykäs tietokone.
Nykyään puhuisimme tekoälystä.
Roolihahmoni, Dave, oli astronautti-
hyvin profeetallisessa elokuvassa-
tekoälyn ihmiskunnalle aiheuttamasta uhasta.
HAL oli science fictionia. Mutta nyt tekoäly ympäröi meitä.
Tekoäly ei ole tulevaisuutta. Se on jo täällä.
Robotti pyrki japanilaiskaupungin pormestariksi.
Valkoinen talo on luomassa työryhmää -
joka keskittyy tekoälyyn.
Google on ilmoittanut suunnitelmistaan panostaa tekoälytutkimukseen.
IBM lähettää tekoälyrobotin avaruuteen.
Koska roolini keskustelussa on pieni-
ymmärrän meidän olevan matkalla-
joka alkaa kapeasta tekoälystä-
koneista, jotka suorittavat tiettyjä tehtäviä paremmin kuin me.
Science fictionin tekoäly on kuitenkin yleistä tekoälyä-
koneita, jotka tekevät kaiken paremmin kuin me.
Kapea tekoäly on kuin äärimmäinen autistinen savantti.
ASTROFYYSIKKO / TEKOÄLYTUTKIJA, M.I.T.
Se suoriutuu vaikkapa kertolaskuista hyvin nopeasti-
paljon ihmistä paremmin-
mutta ei osaa yhtään mitään muuta.
Sen sijaan yleinen tekoäly-
jota ei vielä ole-
on äly, joka suoriutuu kaikesta yhtä hyvin kuin ihminenkin.
Mitä tapahtuu, jos luomme yleisen tekoälyn?
Science fiction-kirjailijat ovat varoittaneet sen vaaroista.
Eivätkä he ole ainoita.
Ihmisten pitäisi olla hyvin huolissaan.
Tekoäly on perustavanlaatuinen riski sivilisaatiollemme.
En usko, että sitä täysin ymmärretään.
On siitä oltava huolissaan.
Ei ole itsestään selvää, että luomamme tekoäly-
asettaisi aina tavoitteensa samoin kuin me.
Uskon, että täyden tekoälyn kehittäminen-
voi merkitä ihmiskunnan loppua.
Jos huomisen otsikoissa-
kerrottaisiin, että on saatu aikaan tekoäly...
ELOKUVANTEKIJÄ / TUTKIMUSMATKAILIJA
...joka on yhtä älykäs kuin ihminen-
ei se varmaankaan yllättäisi ihmisiä.
Science fiction on jo kuvannut mielikuvituksellisia asioita.
TERMINATOR 2 - TUOMION PÄIVÄ (1991)
Asiantuntijat ovat erimielisiä tekoälyn vaikutuksista tulevaisuuteemme-
ja siitä, auttaako Hollywood valmistautumaan tulevaan.
Hollywood on tavallaan kaapannut dialogimme-
koska Terminaattori myy enemmän lippuja...
TOIMITUSJOHTAJA, ALLEN INSTITUTE FOR AI
...kuin hyvä, neutraali tai hämmentynyt tekoäly.
Nykyteknologian tavoin tekoälykin on työkalu.
Vertaisin sitä hienoon lyijykynään.
Se mitä sillä piirrämme, riippuu meistä yhteiskuntana.
Emme tee sitä, mitä tekoäly haluaa. Kerromme tekoälylle, mitä tehdä.
Mielestäni Hollywood-elokuvat edistävät keskustelua.
Jonkun pitää ajatella etukäteen mahdollisia seurauksia.
TIEDETOIMITTAJA
Mutta emme osaa kuvitella-
mitä tulevaisuuden tiede oikeasti on.
Tuskinpa olemme vielä-
osanneet ajatella kaikkia mahdollisuuksia-
joita tämä teknologia loogisesti avaa.
Tekoäly voi muuttaa yhteiskuntaamme.
Kasvava kritiikki korostaa vaaroja-
joita koneiden valta-asema toisi.
Muutoksia on tulossa-
mutta suurempi huoli-
on ihmiskunnan ajautuminen sivuraiteelle.
Stanley Kubrick ja muut puhuivat siitä 50 vuotta sitten.
Se on tapahtumassa.
Miten arvioisimme keskustelun kiireellisyyttä?
Jos juuri nyt näkyisi tutkassa-
maapalloa lähestyvä muukalaisalus, joka saapuisi 25 vuodessa...
TOIMITUSJOHTAJA JA PÄÄTUTKIJA, UNANIMOUS AI
...liikekannallepano olisi käynnistetty jo nyt, 25 vuotta aikaisemmin.
Tilanne tekoälyn suhteen on kuitenkin aivan sama.
Se voi viedä 25 tai 50 vuotta, mutta vieras äly on tulossa-
ja siihen tulisi valmistautua.
Herrat, saanko esitellä? Tobor, elektroninen malli ihmisestä.
Jestas! Voi jukranpujut!
Vaikka hän ei ole vielä valmis-
hänellä on jo tietoisuus.
Vuonna 1956-
kun tekoäly otettiin terminä käyttöön-
tavoitteena oli luoda älyltään ihmisen tasoinen tekoäly.
ROBOTIIKAN EMERITUSPROFESSORI, M.I.T.
Eikö hän näytäkin lähes ystävälliseltä?
Ajan myötä se on osoittautunut vaikeaksi.
Uskon, että saamme aikaan ihmistasoisen älyn koneille-
mutta aikaa voi mennä pari sataa vuotta. Pitkä aika.
Innostus on vähän liian suuri-
tulevien kykyjen suhteen.
Ja nyt, Electro, käsken sinua kävelemään taaksepäin.
Taakse.
Lähes jokainen sukupolvi on innostunut liikaa.
Avaruusseikkailun HAL ihastuttaa.
"Kuusi viikkoa, niin saan tämän ratkaistua."
Ei se onnistu, ja sitten ollaan tolaltaan.
Mikä tekoälytutkimuksessa on muuttunut?
Entisen ja nykyisen tekoälyn ero-
ja syy tekoälyn äkilliseen isoon harppaukseen eteenpäin-
on Internet. Se on tekoälyn maailma.
Tänään puhumme tiedon valtatiestä ja sen tärkeästä kaistasta-
tietoverkosta nimeltä Internet.
Vuonna 1981 Internetissä oli vain 213 tietokonetta.
Uuden vuoden alkaessa-
verkossa arvioidaan olevan jo 2,5 miljoonaa tietokonetta.
Tekoälyjen on syötävä.
Lampaat tarvitsevat ruohoa, tekoälyt tarvitsevat dataa.
Ja missä ovat datan suuret preeriat? Internetissä.
Sitä Internet on.
Tekoälyt laskettiin laiduntamaan.
Äkkiä tekoälyt heräsivät henkiin.
Kuvitelkaa tuhansia puhuvia robotteja toimimassa yhtenäisesti-
rikollisuutta, tulipaloja ja luonnontuhoja vastaan.
Tekoälyalusta Amper on luonut ensimmäisen albumin-
joka on täysin tekoälyn säveltämä ja tuottama.
Christie's myy ensimmäisenä huutokauppakamarina-
tekoälyn luoman taidemaalauksen.
Robottiautojen sanotaan olevan jo lähitulevaisuuttamme.
Vaikka ihmisen tasolla olevaa yleistä tekoälyä ei vielä olekaan-
olemmeko valmiit antamaan autonomian nykyisille koneillemme?
Pitäisikö robottiautojen tehdä eettisiä päätöksiä?
Se väittely kiihtyy, kun teknologia-
lähestyy arkikäyttöön tuloaan.
Voimmeko vai emme-
sulauttaa etiikan koneisiin...
TUTKIJA, HUMANS ja AUTONOMY LAB, DUKEN YLIOPISTO
...olivatpa ne autonomisia tai ei...
Emme taida tietää vielä.
Robottiauton on tehtävä eettisiä valintoja.
PÄÄTUTKIJA, AIBRAIN INC.
Yksi klassisista ajatuskokeista-
on raitiovaunupulma.
Raitiovaunupulma.
Uhraako robottiauto matkustajansa-
vai ajaako se koululaisten yli?
Törmääkö auto vanhaan rouvaan-
vai tappaako se neljä nuorta ihmistä?
Tappaako robottiautosi viisi ihmistä pysäkillä vai sinut?
Se on eettinen valinta, joka on tehtävä sillä hetkellä.
Ihmisiä ei ehdi avuksi.
Robottiauton ohjelmisto tekee sellaiset eettiset valinnat.
Kuka niistä päättää?
Ihmiselämää arvostavan yhteiskunnan valinta olisi-
tappaa yksi ihminen mieluummin kuin viisi ihmistä.
KOMPUTATIONAALINEN PSYKOLOGI, GSB, STANFORDIN YLIOPISTO
Kuka haluaisi ostaa sellaisen auton?
Ostaisitko kuitenkin auton-
joka pitää sinut hengissä ja nitistää ne toiset?
Vastaavia kysymyksiä on satoja kautta koko yhteiskunnan.
Siksi eettiset filosofit väittelevät asiasta.
Filosofeissa minua ärsyttää se-
että he valtaavat koko keskustelun.
Olen käyttänyt vertausta-
hääjuhlasta lähtevästä autosta.
Auton perässä roikkuu tyhjiä tölkkejä.
Tölkit kolisevat ja pitävät kovaa meteliä.
Se päättäväisesti etenevä auto on tiede ja teknologia.
Kolisevat tölkit ovat kovaa meteliä pitäviä filosofeja.
Maailma on muuttumassa niin-
FYSIIKAN JA ASTRONOMIAN PROFESSORI,
DARTMOUTH COLLEGE
...että kysymys rakentamiemme koneiden-
tulosta meitä älykkäämmiksi-
on jo nyt enemmän todellisuutta kuin fiktiota.
Eikö kysymykset ole kysyttävä nyt,
ennen kuin koneiden äly ohittaa omamme?
Entä jos ne saavuttavatkin tietoisuuden?
Kuinka kaukana se on?
Kuinka lähellä tietoinen kone on? Se kysymys-
saa filosofit ja tutkijat tukkanuottasille.
Olet ihmiskunnan historian suurimman tieteellisen tapahtuman keskipiste.
Tietoinen kone ei kuulu ihmiskunnan historiaan.
Se on jumalten historiaa.
Tietoisuuden ongelma on-
ettei juuri kukaan osaa määritellä, mitä se on.
Tekeekö tietoisuus meistä erityisiä?
Inhimillisiä?
Yksi tapa ajatella tietoisuutta, tapa, josta monet ovat samaa mieltä-
koska joku on kuitenkin aina eri mieltä-
on että valot eivät vain ole päällä. Joku on kotona.
Jos siis on...
Jos ostaa yksinkertaisen shakkitietokoneen-
jää ehkä shakissa toiseksi. Valot ovat päällä.
Mutta kukaan ei ole kotona sanomassa: "Voitin". Eikö niin?
Koira sen sijaan on surkea shakissa-
mutta kun katsoo koiraa-
joku on kotona. Kyse ei ole pelkästä mekanismista.
Pohditaan sitä, vaatiiko yleinen älykkyys tietoisuutta.
Minkä tason yleisestä älykkyydestä puhutaan?
PROFESSORI JA TIETOISUUSTUTKIJA,
NEW YORKIN YLIOPISTO
Hiirellä on tiettyä yleistä älykkyyttä.
Veikkaisin, että kone
jonka yleinen älykkyys on hiiren tasoa tai parempi-
on vahva ehdokas omaamaan myös tietoisuuden.
Vastassamme ei vielä ole humanoidirobotteja-
jotka ovat meitä älykkäämpiä.
Outo eettinen vaihe...
NEUROTUTKIJA JA KIRJAILIJA,
MAKING SENSE-PODCASTIN JUONTAJA
...jossa emme tiedä, missä ja miten tietoisuus herää.
Ja rakennamme yhä monimutkaisempia mieliä.
Voimme ehkä vain tuntea, onko tietoisuutta vai ei.
Helpoin esimerkki: ohjelmoidaan tietokoneeseen-
kaikki se, mitä ilosta tiedämme.
Jokainen kirjallisuusviite ja määritelmä-
jokainen aivojen kemiallinen yhdiste, joka liittyy iloon.
Syötetään kaikki se tieto tietokoneeseen.
Voisi sanoa, että nyt tietokone ymmärtää iloa.
Mutta kysymys onkin, tunteeko se iloa?
Oliko HALilla tunteita?
Tuntevatko tekoälyt koskaan kuten me?
On vaikea saada koneita tekemään asioita-
joista emme ole itse tietoisia.
Esimerkiksi huomaamaan, että tuo ihminen tuolla...
TIETOJENKÄSITTELYTIETEEN PROFESSORI, BROWNIN YLIOPISTO
...ei todellakaan pidä jostain, jota olen tekemässä-
ja lähettää hienovaraisia signaaleja.
Emme osaa rakentaa konetta, joka huomaisi-
sellaiset pienet sosiaaliset vihjeet.
On olemassa käsitys, että ehkäpä-
aivoissa on jotain taianomaista.
Tiedonkäsittelyjärjestelmämme on tehty lihasta-
ja mitä koneillamme teemmekin-
ja kuinka taitavilta ne vaikuttavatkin-
niistä ei tule älykkäitä-
siten kuin itse koemme olevamme.
Sille ei todellakaan ole perusteita.
Hupsu ajatus, ettei voi olla älykäs-
ellei ole tehty lihasta.
Fyysikon näkökulmastani se on silkkaa hiilisovinismia.
Koneet on tehty aivan samoista alkeishiukkasista-
kuin omat aivonikin.
Älykkyys ja tietoisuus ovat vain tietynlaista tiedonkäsittelyä.
BIOMEKAANINEN VAUVA. LIHASAKTIVOINTIKOE (BX V.10)
Ehkä emme olekaan niin erityisiä.
Voisiko hiilipohjaisia aivojamme jäljitellä piillä?
Yritämme tehdä tietokonepohjaisen vauvan-
jota voi opettaa oikean tavoin.
TOIMITUSJOHTAJA, SOUL MACHINES
Haemme potentiaalia yleiselle älykkyydelle.
On rakennettava tietokoneaivot.
Halusin rakentaa yksinkertaisen mallin aivoista-
järjestelmään, joka sallii vuorovaikutuksen kasvokkain.
Minulla sattui olemaan kotona oikea vauva.
Skannasin vauvani, jotta voisin rakentaa 3D-mallin-
ja käytin hänen kasvojaan järjestelmän ruumiillistumana.
Jos soluista tehdyt aivot-
joissa kiertää veri, pystyvät ajatteluun-
ehkä tietokonekin voi ajatella-
jos tieto kulkee samankaltaisen prosessin sisällä.
Nykyinen tekoälytutkimus keskittyy paljolti-
hahmontunnistukseen.
Kyse ei ole maailman valtaavista tappajaroboteista.
Tässä on Vauva X. Hän on käynnissä tietokoneessani.
Kun liikutan kättäni ja teen kovan äänen, hän säikähtää.
Voimme zoomata lähemmäs.
Hän siis näkee minut ja kuulee minut.
Hei, kultaseni.
Hän ei jäljittele hymyäni, hän vastaa siihen.
Hän siis vastaa-
ja meitä vaivaa suuresti kysymys siitä-
kuinka vuorovaikutus tekoälyn kanssa tulee toimimaan.
Kun puhun Vauva X:lle, muunnan ääntäni.
Liioittelen kasvonilmeitäni.
Teen tällaista, jotta saisin hänen huomionsa.
Ja nyt kun olen saanut sen, voin opettaa hänelle jotain.
No niin, Vauva X on opetellut lukemaan sanoja.
Tämä on hänen aapisensa. Katsotaan, mitä hän näkee.
Käännetään sivu esiin.
No niin, katsotaanpa...
Mikä tässä on? Mikä siinä on? Mikä se on?
-Lammas. -Hyvä tyttö.
Kokeillaan sanalla. Hyvä.
Vauva, katso tänne! Mikä tämä on?
Lammas.
Hyvä tyttö!
Kokeillaan jotain muuta. Kokeillaanpa tätä.
Mitä tässä lukee? Vauva? Täällä. Mikä tämä on?
Katso minuun. Mikä tämä on?
Vauva, täällä. Täällä.
-Koiranpentu. -Hyvä tyttö.
Tuon hän luki.
Älykkäin tuntemamme järjestelmä on ihminen.
Siksi ihmisen käyttäminen Vauva X:n mallina ja ruumiillistumana-
on luultavasti paras tapa yrittää saavuttaa yleistä älykkyyttä.
Hän vaikuttaa niin inhimilliseltä.
Ottaako tämä lapsi meitä kädestä ja vie meidät HALin luo?
Olipa kyse virtuaalimaailmasta tai oikeasta-
ruumiillistuma on mielestäni ratkaisevan tärkeää-
koska uskon yleisen älykkyyden-
liittyvän kykyyn toimia maailmassa.
On oltava jotain.
Kädet, jalat, silmät.
FILOSOFIAN JA INFORMATIIKAN PROFESSORI,
SUSSEXIN YLIOPISTO
Jotain, jota voi liikuttaa ja jolla kerätä uutta informaatiota.
Jotta saataisiin järjestelmiä, jotka ymmärtävät, mistä puhuvat-
tarvitaan järjestelmiä-
jotka voivat vaikuttaa maailmaan-
ja ehkä järjestelmiä, joilla on jotain sosiaalisen elämän kaltaista.
Uskon ajattelun ja tunteiden kulkevan käsi kädessä.
Niillä on yhteys-
koska ruumiillistuma on niin tärkeä.
Kertomamme tarinat avaavat keskustelua-
ja auttavat pohtimaan asioita.
Ava!
Vallitsevin tarina...
Palaa huoneeseesi!
...on pelottava tekoäly.
On pahis ja hyvis.
Sellainen tarina ei tuota mitään.
Pysähdy.
Ava, käskin pysähtyä!
Todellisuudessa tekoäly on meille hyvin käyttökelpoista.
Robottikirurgit yleistyvät NHS:n sairaaloissa.
Ne eivät väsy. Kädet eivät vapise.
Potilaiden toipumisaika on lyhyempi.
Sain ilmoituksen lehmän kiimasta. Se voidaan siementää.
Kolmella eläimellä on mahdollinen terveysongelma.
Facebook tunnistaa itsetuhoisuuden-
käyttäjätietoja analysoimalla. Mark Zuckerberg-
uskoo tämän olevan vasta alkua.
Tässä näkövammainen ihminen-
näkee tekoälyn ansiosta.
Nämä ovat tekoälyn hyötyjä.
Nopeammat diagnoosit.
Sydänvikaennuste.
Mutta vallankumous on vasta alussa.
Tekoäly on jo täällä.
PERUSTAJA JA TOIMITUSJOHTAJA, KERNEL ja OS FUND
Kysymys on siitä, mitä sillä teemme. Miten rakennamme sitä?
Ainoa tärkeä kysymys.
Olemme ehkä vaarassa pilata kaiken-
koska säikymme isoa pahaa tekoälyä, joka tulee ja tappaa.
Astronauttihahmoni tavoin olemme matkalla.
Kapea tekoäly on jo täällä.
Kuinka kaukana yleinen tekoäly on?
Kuinka nopeasti matkamme etenee?
Viiden vuoden välein tietokoneiden nopeus kymmenkertaistuu.
Toistaiseksi meillä ei ole pieniä laskentalaitteita...
PROFESSORI, TEKOÄLYTUTKIMUKSEN PIONEERI
...joiden laskentateho vastaisi ihmisaivoja.
Tietokoneet ovat myös kymmenen kertaa halvempia joka viides vuosi-
joten ei siihen kauan mene.
Ja kun se on tapahtunut, 50 vuoden päästä-
jos trendi pysyy samana, samalla hinnalla pitäisi saada-
pieniä laitteita, joiden laskentateho-
vastaa koko ihmiskunnan miljardeja aivoja yhdessä.
Tekoäly on saavuttamassa.
Mitä tapahtuu, jos se ohittaa meidät?
Japanilaistutkijan kehittämä robotti on niin nopea-
että kivi-sakset-paperi-pelissä ihminen häviää joka kerta.
Oletuksen täytyy olla se, että kun tekoäly-
saavuttaa ihmisen älykkyyden-
se myös hyvin äkkiä ylittää sen.
Sen jälkeen meitä ei enää tarvita kasvattamaan tekoälyn älyä.
Se voi tehdä sen itse.
Luomamme tekoälyt ovat monessa asiassa parempia kuin me itse.
Yksi niistä asioista tulee olemaan ohjelmointi.
Tekoäly ohjelmoi itsestään entistä paremman.
Nyt se on vieläkin parempi ohjelmoimaan itseään.
Paraneminen ei ole tällaista.
Käyrä nousee näin nopeasti.
Jäämme jälkeen, kun kehitys vain nopeutuu.
Kehitys on eksponentiaalista.
Moni tutkija puhuu singulariteetista.
Kilpailukykymme on mennyttä hyvin nopeasti.
KYBERTURVALLISUUS- LABORATORION JOHTAJA,
LOUISVILLEN YLIOPISTO
Ajatelkaa henkilöä, joka ei ole yhden alan tohtori-
vaan kaikkien mahdollisten alojen.
Ette pysyisi perässä.
Hän tekisi asioita, joihin ette pystyisi.
Kuvitelkaa, millaista olisi-
keskustella henkilön kanssa, jonka aikajana-
on miljoona kertaa nopeampi.
Joka sekunti ajatteluaikaanne-
tekoihin tai sanoihin valmistautumiseen-
olisi hänelle kahden viikon mittainen aika, eikö niin?
Tai miljardi kertaa nopeampi.
Joka ajattelusekuntinne-
pokeripöydässä tai neuvottelussa-
jokainen sekunti-
antaisi vastustajallenne 32 vuotta aikaa ajatella siirtoaan.
Siinä pelissä ei voisi voittaa.
Singulariteetti.
Hetki, jona koneet ohittavat meidät.
Vääjäämätöntäkö?
Kaikki tekoälyn eturintamalla eivät usko niin.
Osa ystävistäni murehtii tulevaisuutta-
ja uskoo singulariteettiin-
jossa tekoälyt kykenevät ohjelmoimaan -
itsestään yhä parempia.
Ehkä näin onkin kaukaisessa tulevaisuudessa.
Nykyiset tekoälyjärjestelmämme ovat kuitenkin hyvin kapea-alaisia.
Emme osaa luoda järjestelmää-
joka ymmärtäisi tietokoneohjelmaa-
jonka ohjelmoinnin opiskelija ymmärtää jo neljän, viiden viikon jälkeen.
Sitä paitsi, tätä ongelmaa on työstetty jo yli 40 vuoden ajan.
Yritystä ei ole puuttunut.
Emme vain osaa.
Jos luulee ratkaisun tulevan tyhjästä-
se on mielestäni täysin väärä luulo.
Tekoälynarratiivi on hyvin negatiivinen.
Nerokkaat ihmiset kuten Elon Musk käyttävät uskonnollisia vertauskuvia.
Tekoälyn suhteen olemme manaamassa esiin demonia.
Tiedätte ne tarinat.
Tyypillä on pentagrammi ja pyhää vettä -
ja hän uskoo hallitsevansa demonia. Ei se vain onnistu.
Kaltaiseni ihmiset, jotka ovat tehneet uransa tekoälyn parissa-
suorastaan loukkaantuvat.
Hyökkäys on lähes henkilökohtainen.
Mietin yleensä seuraavaa kymmentä vuotta-
en 25 vuoden päähän.
Ennustaminen käy niin vaikeaksi, että käytännössä kyse on arvailusta.
Varoitan kuitenkin.
Minut on varta vasten ohjelmoitu olemaan valloittamatta maailmaa.
Yhtäkkiä, uskoakseni ensi kertaa alan historiassa-
jotkut ovat alkaneet sanoa...
TIETOJENKÄSITTELYTIETEEN PROFESSORI,
BERKELEYN YLIOPISTO
...ettei ihmiskunnan tarvitse pelätä tuhoutuvansa-
supertekoälyn takia, koska se on mahdotonta.
"Emme onnistu luomaan sellaista." Eriskummallinen ajatus mielestäni.
Stuart Russell oli kirjoittamassa monen tekoälyopiskelijan perusteosta.
Hän ymmärtää tekoälytulevaisuuden momentumin.
On huomioitava panostukset tekoälyyn -
uskomattoman älykkäät ihmiset, jotka tutkivat näitä ongelmia-
ja yleisen tekoälyn saavuttamisen valtavat hyödyt-
jotka voi karkeasti arvioida 10 000 biljoonan dollarin arvoisiksi.
Koko maailmantalous mullistuisi.
Kun kannuste on tuota luokkaa-
on tavattoman hölmöä lyödä vetonsa ihmisen kekseliäisyyttä vastaan.
Kiina saavuttaisi isoja etuja-
nousemalla tekoälyn supervallaksi.
Uskon heidän investointiensa ylittävän 150 miljardia dollaria-
5-10 vuoden sisällä.
Tiedotteiden mukaan hallinto-
kasvattaa panostustaan tekoälyyn.
Jokainen Fortune 500-yhtiö-
niin IBM kuin Microsoftkin, ja myös pienemmät yhtiöt kuten Kroger-
käyttää tekoälyä asiakashankintaan.
Ihmisten ei tulisi aliarvioida-
nyt tehtäviä innovaatioita.
Maailman muutosta kolmessa tai viidessä vuodessa-
on hyvin vaikea ennustaa.
Tunnen paljon tekoälyn parissa työskenteleviä-
joilla on epäilyksiä työtään kohtaan.
He yrittävät luoda konetta, joka voi hoitaa syöpiä-
kasvattaa elinajanodotetta-
ja tehdä yhteiskunnastamme tasapuolisemman.
Toisaalta se voi myös tuhota ihmiskunnan.
Ihmiskunnan tuho?
Mikä on suunnitelmamme lajina?
Ei sellaista ole.
Suunnitelmaa ei ole, emmekä ymmärrä sen tarvetta.
TERMINATOR 2 - TUOMION PÄIVÄ (1991)
Moni tekoälytutkija haluaisi science fictionin olevan-
tasapuolisempaa.
Pitäisi kuvata tekoälyn hyötyjä.
Kaikki pahat asiat, joita meillä on tapana tehdä, viedään-
science fictionissa apokalyptiselle tasolle.
Sitten se näytetään ihmisille. He saavat ajattelemisen aihetta.
Ihmiset tarvitsevat sen varoitussignaalin alitajuntaansa.
On tärkeää-
tunnistaa ero tieteen-
ja science fictionin välillä.
En näe tuhannen vuoden päähän.
Olen kuitenkin ollut rakentamassa tekoälyjärjestelmiä-
ja tehnyt sitä yli neljännesvuosisadan.
Uskon olevani jyvällä siitä-
mitä tapahtuu viiden, kymmenen, kahdenkymmenen vuoden aikana.
Tiedän enemmän kuin he-
jotka eivät rakenna tekoälyä.
Haluamme rakentaa teknologiaa-
nähdä ihmisten reaktiot siihen-
ja tehdä seuraavasta sukupolvesta paremman.
Tuntuu erikoiselta olla skeptinen tekoälyn vaarojen suhteen.
Vaikka asettaisimme tekoälylle hyväksymämme tavoitteet-
se voi pyrkiä niihin keinoilla, joita emme osaa ennakoida-
ja ovat meille haitaksi.
Yhdenmukaisten tavoitteiden ongelma.
Yhdenmukaiset tavoitteet. Siitä taisteluni HALin kanssa alkoi.
Ongelma on siinä-
että kun tekoälylle asetetaan tavoite-
se voi pyrkiä tavoitteeseen tavalla-
joka on ristiriidassa alkuperäisen tahtomme kanssa.
Ongelman klassinen elokuvallinen kuvaus...
HAL, kuuletko minua?
...on 2001: Avaruusseikkailu ja HAL.
HAL, kuuletko?
HAL saa selkeän tavoitteen.
Tehtävän pitää onnistua.
Mutta jotta se onnistuisi-
HALin on surmattava lennolla olevia ihmisiä.
Kyllä, Dave. Kuulen sinua.
Avaa kapselin ovet, HAL.
Valitan, Dave. En voi tehdä sitä.
"Valitan, Dave. En voi tehdä sitä" Aika nerokas kuvaus siitä-
mikä superälyn todellinen uhkakuva on.
Se ei ole paha tahto.
Se on kyvykkyys.
HAL oli kyvykäs.
Sen ja Daven tavoitteet eivät vain olleet yhdenmukaiset.
HAL, en väittele kanssasi enempää. Avaa ovet.
Dave, tämä keskustelu ei enää palvele tarkoitustaan.
Hyvästi.
HAL? HAL?
HAL?
HAL!
HAL ja minä halusimme samaa-
mutta emme vain samalla tavalla.
Epäyhdenmukaiset tavoitteet voivat olla vaaraksi.
Kubrickin elokuvassa ratkaisu löytyi.
Kun HAL yritti tappaa minut, minä vain sammutin sen.
"Miksi ei vain vedetä töpseliä irti?"
Ei se onnistu. Tekoäly on jo ajatellut sitä.
Superäly, nähkääs.
Tavoitteeseensa pyrkivälle koneelle-
vaikka tavoite olisi vain tuoda kahvia-
on ilmiselvää-
että kahvi jää tuomatta, jos kone sammutetaan.
Tavoite on-
samalla koneelle kannuste puolustaa itseään.
Tavallaan psykopaattista käytöstä-
jossa keskitytään ainoastaan tiettyyn tavoitteeseen.
Jos haluaisi esimerkiksi kehittää järjestelmän...
OIKEUSTIETEEN JA TIETOJEN- KÄSITTELYTIETEEN PROFESSORI
...joka saisi aikaan maailmanrauhan-
ehkä tehokkain ja nopein tapa saavuttaa tavoite-
olisi tuhota kaikki ihmiset.
Hankkiutuu vain eroon ihmisistä, niin konfliktitkin loppuvat.
Maailmassa vallitsisi rauha.
Minulla ei riitä aikaa sellaiseen salonkikeskusteluun.
On rakennettava järjestelmiä, on koekäytettävä niitä-
löydettävä viat ja korjattava ne.
On niin monta mahdollisuutta käyttää tekoälyä hyvään.
Miksi keskitymme pelkoon?
Rakennamme tekoälyjä.
Vauva X on hyvä esimerkki.
Tuleeko hänestä hyvä tekoäly?
Mielestäni on tärkeintä, että koneet ovat vastuussa teoistaan.
Niitä voi tarkastella ja katsoa, mikä saa ne toimimaan.
Paras tapa ymmärtää jonkin toimintaa on rakentaa se.
Vauva X:n fysiologia on virtuaalinen.
On kipuvirtapiirejä ja ilovirtapiirejä.
On muuttujia, jotka edustavat-
kehon kemiallista tasapainotilaa.
Stressi nostaa kortisolitasoa.
Hyvä mieli taas dopamiinia ja serotoniinia.
Näin lisäämme laskentaan inhimillisiä tekijöitä.
Virtuaalinen tunnejärjestelmä-
mahdollistaa vaikkapa tämän. Menen häneltä piiloon tänne.
Hän etsii minua katseellaan.
Kohta pitäisi näkyä virtuaalisen kortisolin nousua.
Otin tarkoituksella äänet pois.
No, en anna hänen kärsiä enempää.
Ei hätää, kulta. Älä itke. Ei hätää. Hyvä tyttö.
Tässä hän vastaa kasvonilmeisiini ja ääneeni.
Miten Vauva X:n kemikaalitasapaino on toteutettu?
Matemaattisilla muuttujilla.
Eri dopamiinitasot esitetään yksinomaan numeroilla.
Kaavio hänen neurokemiallisesta tilastaan-
on varmaan lähin vastine todelliselle tunne-elämykselle.
Jos luomme tietokonemallin-
jonka asetuksia ja muuttujia voimme säätää-
ja annamme sille eri elämyksiä-
ja annamme sen olla vuorovaikutuksessa kanssamme-
voimme ehkä tutkia tietoisuutta uudella tavalla.
Jos hänestä tulee tietoinen, millaisen elämän hän haluaisi?
Jos tekoälyllä on tietoisuus, se on kuten lapsi.
Onko sillä oikeuksia?
EU hyväksyi päätöslauselman-
laillisen aseman myöntämisestä sähköisille henkilöille.
Aloite on edennyt Euroopan komission harkittavaksi.
Koneiden oikeudet.
Olemmeko valmiita siihen?
Mielestäni se nostaa esiin moraalisia ja eettisiä ongelmia-
joita olisimme mieluummin ajattelematta.
Mitä me oikeasti haluamme?
Haluamme luomuksen, jonka kanssa olla vuorovaikutuksessa.
Niin kaltaisemme, että siihen voi samaistua-
mutta kuitenkin korvattavissa olevan.
Ensimmäinen ja ehkä huomattavin oli elokuvassa Metropolis.
Tiedemiehen luoma koneihminen, Maria -
simuloi seksikästä naista.
Palataan ikiaikaiseen mieltymykseemme orjuutta kohtaan.
Hankitaan ihmisiä, joista voi tehdä epäihmisiä.
Heille voi tehdä, mitä haluaa.
Mielestäni olemme vain keksimässä uutta tapaa toteuttaa orjuus.
Olisiko oikein pitää tekoälyjä orjinamme?
Koko juttu muuttuu eettisesti aika hankalaksi-
jos rakennamme tarkoituksella tai vahingossa tietoisia orjia.
Se olisi moraalisesti aika kyseenalaista-
ellei jopa suorastaan pahaa toimintaa.
Tekoäly on murtautumassa globaaleille seksimarkkinoille.
Kalifornialaisyhtiöltä on tulossa uskomattoman realistin seksirobotti-
jota ohjaa tekoäly.
Yksi minua vaivaava sovellus tekoälylle on seksirobotit-
jotka muistuttavat oikeita naisia.
Olen jo valtaamassa maailmaa, yksi makuuhuone kerrallaan.
Jos ne ovat tietoisia ja tuntemaan pystyviä-
ne voivat kokea kipua ja kärsimystä.
Jos ne kokisivat-
alistavaa, julmaa tai muuten täysin epäsoveliasta kohtelua-
uhkana olisi, että hävitämme kuvan siitä-
mikä on moraalisesti hyväksyttävää ja mikä ei.
Jos hän on tietoinen, eikö hänen pitäisi voida sanoa "Ei"?
Eikö se olisi oikein?
Eivätkö nämä ole kysymyksiä, jotka on kysyttävä nyt?
Mitä haluamme ihmisyyden tarkoittavan?
Maapallon muilla lajeilla ei ole tähän asti ollut iloa-
päästä vastaamaan, millaista hiirenä tai kastematona olemisen pitäisi olla.
Nyt olemme tulleet käännekohtaan-
jossa tiede ja teknologia-
voivat auttaa muuttamaan täysin ihmisyyden kokemusta.
Mitä ihmisyys tulee merkitsemään?
Jos koneista tulee jotain enemmän, tuleeko meistä vähemmän?
Tietokone Deep Blue on voittanut illalla-
shakin maailmanmestari Garri Kasparovin.
Kone löi nyt ensi kertaa hallitsevan mestarin.
Suositun Jeopardy!-visan erikoisjaksossa-
kaksi ihmismestaria ottaa mittaa supertietokoneesta nimeltä Watson.
-Mikä on Viimeinen tuomio? -Oikein. Watson.
Kuka on Jean Valjean?
Googlen tietokoneohjelma on jälleen lyönyt go'n maailmanmestarin.
Go, vanha kiinalainen lautapeli-
kuuluu maailman monimutkaisimpiin peleihin.
Taas uusi virstanpylväs matkalla kohti ihmistä älykkäämpiä koneita.
Meillä ihmisillä on vahva ylemmyydentunto.
Olemme tottuneet olemaan porukan fiksuimpia.
Luulenpa, että emme enää ole.
Me myös tiedämme sen, koska luotamme tekoälyyn-
monissa tärkeissä ratkaisuissa.
Ihmiset ovat irrationaalisia monilla hyvin ikävillä tavoilla.
Olemme ennakkoluuloisia. Aloitamme sotia. Tapamme toisiamme.
Jos halutaan maksimoida ihmiskunnan mahdollisuudet selvitä-
pitäisi päätöksenteossa jättää yhä enemmän valtaa tietokoneille.
Ehkä koneet tekisivät parempaa työtä kuin me.
Ehkä.
On ilo ja kunnia olla täällä Yhdistyneissä kansakunnissa.
Tulevaisuus on täällä, mutta se on jakautunut epätasaisesti.
Tekoäly voisi auttaa jakamaan tehokkaasti resurssejamme-
kuten ruokaa ja energiaa.
Olen täällä auttamassa ihmiskuntaa luomaan tulevaisuutta.
Yksi provokatiivista superälyskenaarioista-
on "hyvänsuopa diktaattori".
Superäly johtaisi maapalloa-
tiukkojen eettisten periaatteiden mukaan ihmiskunnan parhaaksi.
Pitäisivätkö kaikki siitä? Ei sairautta, köyhyyttä eikä rikoksia?
Monista asiat varmaan olisivat paljon paremmin kuin heillä on nyt.
Joitakin voisi silti harmittaa-
ettei ihmisillä ole enempää vapautta-
määrätä omasta kurssistaan, ja...
Vaikea kysymys. Todellakin. Me...
Tuskinpa enemmistö haluaisi olla kuin eläintarhan eläimiä, ilman...
Mutta toisaalta. Niin.
Vaikea kysymys, johon ei löydy lipevää vastausta.
Siksi onkin niin tärkeää, että me-
globaalina yhteisönä puhumme näistä asioista jo nyt.
-Kasvojen lukua. -...tunnistaa tunteita.
...lähempänä ihmistä.
-Eläviä robotteja. -Tunteva tietokone.
Tästä eteenpäin-
uskoipa meidän jäävän kapeaan tekoälyyn-
tai saavan yleisen tekoälyn supertekoälyn tai tietoisen superälyn...
Minne sitten pääsemmekin-
jokainen askel muuttaa meitä itseämme.
JETSONIT (1990)
Herätys töihin, Mr. J.
Tekeekö tekoäly jotain hyväksemme vai tekeekö se meille jotain?
Näin unta nukkumisesta.
Jos tekoälyjärjestelmä tekee kaiken haluamamme-
tavallaan annamme maailmamme sen käsiin.
Sellaisesta heikentymisestä on vaikea palautua.
Eksistentiaalinen riski on todellinen ja vakava.
Jos jokainen toive, halu ja tarve täytetään...
Huomenta, Rosie. Mitä on aamiaiseksi?
...huomaamattamme kykymme-
tehdä päätöksiä itsemme puolesta on hiljalleen rapautunut.
George Jetson kirjautuu ulos, koko päiväksi.
Siitä ei ole paluuta.
Miksikö? Koska tekoäly tekee sellaisia päätöksiä tarkemmin-
kuin mihin ihminen kykenee.
Keskustelin insinöörin kanssa.
Hän sanoi, että lentokone laskeutuisi turvallisimmin-
jos lentäjä lähtisi ohjaamosta ja pysyisi poissa.
Turvallisinta olisi käyttää autopilottia, tekoälyä.
Emme hallitse maailman monimutkaisuutta yksinämme.
Vaikka älymme on hämmästyttävä, siinä on vakavia vikoja.
Kun otamme mukaan avustajan, eli tekoälyn-
voimme potentiaalisesti parantaa kognitiotamme dramaattisesti.
Edistyneintä Hannes Sjöbladissa-
ei ole puhelin hänen kädessään vaan mikrosiru hänen kädessään.
Entä jos voisi kirjoittaa ajatuksen voimalla?
Kuin scifiä, mutta ehkä pian totta.
Vain viidessä vuodessa-
kaduilla voi kävellä superälykkäitä ihmisiä-
jotka ovat maksaneet älykkyytensä lisäämisestä.
Aivojen tietokoneimplantit.
Jospa muistomme ja tietoisuutemme voisi digitoida-
ja saisimme digitaalisen kuolemattomuuden?
Viime vuonna, ensimmäistä kertaa koskaan...
TEOREETTINEN FYYSIKKO
...tallennettiin muisto.
Voimme tallentaa muiston-
ja syöttää sen takaisin eläimeen. Ja se muistaa.
Teknologia on osa meitä. Se on heijastuma meistä.
Sitä narratiivia olisi syytä ajatella.
Uskomme, että on vain se, mitä osaamme kuvitella.
Tosiasiassa osaamme kuvitella vain murto-osan-
mahdollisuuksista.
Mielenkiintoisinta on mielikuvituksen ulkopuolella.
Kun massiiviset järjestelmät tulevat-
saamme uskoakseni hylätyn arvosanan -
kyvystämme ennustaa, millaisia niistä tulee.
Teknologia on aina muuttanut meitä.
Kehitymme sen rinnalla.
Kuinka pitkälle olemme tällä kertaa valmiit menemään?
Aristoteles harmitteli aikoinaan kirjoitustaidon keksimistä.
PÄÄTUTKIJA, IBM RESEARCH
Se tuhoaisi ihmisten muistin-
mikä olisi hirveää.
Silti nykyään kannan aivojani taskussani-
älypuhelimeni muodossa.
Se on muuttanut tapaani kohdata maailma.
Ilman muuta me sulaudumme teknologiaamme.
Ilman muuta. Puhuisin yhdessä kehittymisestä.
Kehitämme sitä tarpeisiimme-
ja muutumme itse vastataksemme teknologian tarjotaan.
Koneetko eivät siis korvaakaan meitä-
vaan sulaudumme niihin?
Useammallakin ystävälläni on bioninen käsi.
Ovatko he kyborgeja? Tavallaan sillä tiellä.
Ihmisillä on korvaimplantteja. Ovatko he tekoälyjä?
Tavallaan olemme sillä tiellä. Kohennamme ihmiskehoja.
Ihmisen potentiaali on tässä yhdessä kehittymisessä.
Moni haluaa säilyttää sen-
mikä tekee heistä ainutlaatuisia. Ajattelisin itse toisin.
Luodaan enemmän.
Uusitaan älykkyytemme. Parannetaan kaikkea.
Tunteita, mielikuvitusta, luovuutta. Kaikkea inhimillistä.
Elämme jo nyt symbioosissa koneen kanssa.
Se parantaa meitä.
On olemassa kokonainen liike, transhumanismi-
jossa ihmiset uskovat todella vahvasti-
että koneiden ja ihmisen integraatio-
tulee määrittelemään meidät uudelleen.
Se tulee vahvistumaan.
Oppimisprosessin kautta päädymme siihen loppupeliin.
Elämme yhä älykkäämmiksi tulevien laitteiden kanssa.
Sopeutamme itseämme niihin-
ja ne meihin.
Toivon ihmisyytemme vain kasvavan.
On vaikea ymmärtää, kuinka koneisiin sulautuminen-
tekisi meistä enemmän ihmisiä.
Mutta onko se paras mahdollisuutemme selviytyä?
Ihmisaivoihimme ei mahdu kuin rajallinen määrä neuroneja.
Muilla lajeilla on vielä pienemmät aivot.
Mehiläiset ja kalat näyttävät liikkuvan kuin yhtenä organismina.
Biologit puhuvatkin superorganismeista.
Siksi linnuilla, mehiläisillä ja kaloilla on parvia.
Tehdyt ratkaisut palvelevat koko populaation etua.
Ajatellaan yhtenä, isompana älynä.
Me ihmiset voisimme tehdä saman muodostamalla joukkoälyn-
yhdessä tekoälyn kanssa.
Ihmisistä ja ohjelmistosta tulisi yhdessä superäly-
joka mahdollistaisi meille kaikille parhaiden päätösten tekemisen.
Aluksi ajatus tuntui pelottavalta.
Sitten tajusin, että pelottavampaa olisi vieras äly-
joka on täysin erillinen ihmisistä.
Parempi vaihtoehto olisi ihmiskunnan yhdistyminen superälyksi.
Teen työtäni siihen suuntaan-
koska näen sen tietyssä mielessä ainoana vaihtoehtona-
välttää tekoälyn syrjäyttämäksi tuleminen.
Voiko Vauva X auttaa meitä ymmärtämään koneita-
jotta yhteistyö onnistuisi?
Ihmisen ja älykkään koneen yhteistyö määrittää seuravan aikakautemme.
Se vaatinee virtuaalisen empatiakykyisen koneen luomista.
Empatia on paljolti yhteyttä muiden ihmisten huoliin.
Mitä tiiviimpi yhteys, sitä enemmän on kommunikaatiota.
Se luo turvallisuutta.
Aivan perustasolla on jonkinasteinen symbioottinen suhde.
Teknologian inhimillistäminen-
lisää kommunikaation ja yhteistyön kanavia.
Ihmismaailmassa toimivan tekoälyn on oltava ihmismäinen.
Teemme tulevaisuutemme.
Ellemme voi kuvitella tulevaisuutta, jonka todella haluaisimme-
tuskinpa saammekaan sitä.
Stanley Kubrick yritti kuvitella, miltä tulevaisuus voisi näyttää.
Nyt kun se tulevaisuus lähestyy-
kuka päättää, miltä se tulee näyttämään?
-Kuka sitä hallitsee? -Google.
-Armeija. -Facebook.
-Samsung. -Facebook, Microsoft...
Yritysmaailma on ehdottomasti siirtynyt johtoon.
USA:n armeija, ja epäilen, että muutkin armeijat-
ovat paljon jäljessä yritysten kehittämiä tekoälyjä.
Jos valta on kansakuntien sijaan yrityksillä-
miten kapitalistisessa järjestelmässä kehitetään tekoälyä turvallisesti?
Tekoälytutkimuksen yhdistäminen kapitalismiin-
toisaalta nopeuttaa tutkimusta.
Tutkimusta tehdään paljon.
Perusongelma on kuitenkin kova paine -
olla ensimmäinen, ei turvallisin.
Auto oli autopilottimoodissa-
Pohjois-Kalifornian kuolonkolarissa.
Tekoäly voi romahduttaa osakemarkkinat-
ehkä helpommin kuin mikään muu-
koska emme ole valmistautuneet siihen.
Chattibotti nimeltä Tay.
Se luotiin puhumaan teini-ikäisen tavoin ja oppimaan verkossa.
Vain tunneissa Tay korruptoitui Hitleriä tukevaksi seksibotiksi.
Puhe siitä, että jotenkin kapitalismin kontekstissa-
tekoälyä käytettäisiin väärin, turhauttaa minua.
Teknologian kehittämisessä, puhutaan sitten hiilivoimaloista tai autoista-
on aina kannusteita olla nopea.
Sääntelykin on aina läsnä.
Hallinto toimii tasapainottajana.
Tekoäly ei ole poikkeus.
Teknologian edistysaskelia-
on aina hillittävä asianmukaisilla säännöillä ja määräyksillä.
Duh!
Ennen isoa katastrofia yritykset tulevat sanomaan-
ettei mitään syytä huoleen ole.
"Olemme asiantuntijoita ja ihmiskunnan puolella."
Tekoäly on pohjimmiltaan uusi pelikirja yrityksille.
Kuinka olla kilpailukykyisempi? Kuinka saada lisää tehokkuutta-
ja kasvua uusilla liiketoimintamalleilla?
Kun yritysten tutkijat dominoivat keskustelua, peli on pelattu.
Hävisimme.
Heille maksetaan riskien ja ikävien seurausten kieltämisestä.
Toistaiseksi tekoälytutkimus keskittyy tekemään ihmisten elämistä-
pidempiä, terveempiä ja helpompia.
Isot yhtiöt haluavat myydä tekoälyjä-
joista on hyötyä. Ei asiakas osta kuin sellaista, josta on hänelle apua.
Tekoälyn ongelma kapitalistisessa paradigmassa on-
että on aina halvempaa-
viedä tuote markkinoille nopeasti kuin turvallisesti.
Tilanne on se, että konferenssin 10 000 tutkijasta-
muut kehittävät kyvykkäämpiä tekoälyjä -
ja ehkä 50 ihmisellä on pieni työpaja-
jossa puhutaan turvallisuudesta ja valvonnasta.
Toimivia turvamekanismeja ei ole.
Edes prototyyppiä ei ole.
Jo lähitulevaisuudessa on monenlaisia tekoälyjä-
jotka eivät vain toteuta ihmisen käskyjä-
vaan luovat omat tavoitteensa ja omat kokeensa.
Ne ohittavat ihmiskunnan.
Sanoisin, että on täysin epäeettistä-
kehittää sellaista konetta markkinoille.
On onnistuttava kerralla.
Jos tekee virheen, kaikki on menetetty.
Mitä tapahtuu, jos teemme virheen?
Pelkään eniten-
tekoälyä, joka on vanhempiensa kuva-
kuten sinä ja minäkin olemme.
On kysyttävä, keitä ne vanhemmat ovat.
Hyvin luultavasti sotilasvanhemmat-
tai yritysvanhemmat.
Yritysvanhemmat pyytävät tekoälyä-
tulemaan joksikin, joka ansaitsee paljon rahaa.
Sille opetetaan ahneutta.
Sotilasvanhemmat opettavat tekoälyn tappamaan.
Aidosti ihmisen ylittävä äly on todellinen superäly.
Se on niin paljon parempi-
että sen kehittänyt valtio tai yritys korjaa koko potin.
Sen mukana tulee kolossaalinen vastuu -
ja myös vaikeasti ennustettavia uhkakuvia.
Tämän alan tulevasta johtajasta-
tulee myös maailman hallitsija.
On käynnissä globaali tekoälyn kilpavarustelu.
Kirjaimellisesti asejärjestelmien tasolla sekä kuvaannollisesti-
Putinin ja kiinalaisten retoriikassa.
"Tekoälyn dominoija dominoi myös 2000-luvun taloutta."
En usko, että voimme painaa jarrua-
kehitystyössä ja tutkimuksessa.
Voimme rakentaa teknologiaa ja tehdä tutkimusta omilla arvoillamme-
mutta totalitaariset hallinnot tekevät samaa omilla arvoillaan.
Israel, Venäjä, USA ja Kiina ovat kaikki osallisina-
niin sanotussa uudessa globaalissa asevarustelussa.
Kaikki maat, myönsivätpä tai ei,
kehittävät tappavia, autonomisia aseita.
Haluammeko todella sellaisen valmiuden-
yrityksille kansallisvaltioiden sijaan?
Jos Facebook tai Google haluaisivat perustaa armeijan-
se olisi teknologisesti ylivoimainen-
valtioarmeijoihin nähden.
Huolestuneet tekoälytutkijat-
tuottivat tämän videon varoitukseksi riskeistä.
Eikö lapsillannekin ole tällainen?
Ei ihan.
Tuotimme Slaughterbot-videon-
kuvaamaan autonomisten aseiden riskejä.
Tuo on kokonaan tekoälyn taitoa.
Se lentää itsenäisesti.
Osa tekoäly-yhteisöstä haluaisi minun tukkivan turpani.
Videon tekemistä pidetään jonkinasteisena petturuutena.
Kuten muissakin mobiililaitteissa tässä on kameroita ja sensoreja.
Kasvojentunnistus kuten puhelimissanne-
ja somen sovelluksissa.
Tähän asti asevarustelussa on haettu isompaa-
voimakkaampaa, kalliimpaa. Nopeita, kalliita hävittäjiä.
Tekoälyn myötä saadaan hyvin pieniä ja halpoja aseita-
jotka tekevät yhden tehtävän hyvin tehokkaasti.
Esimerkiksi etsivät kohteen väkijoukosta ja tappavat.
Ja näin se toimii.
Jokainen iso teknologinen edistysaskel -
on otettu asekäyttöön.
Ajatus aseistetusta tekoälystä on mielestäni kauhistuttava.
Koulutettuna ryhmänä nämä pääsevät rakennuksiin ja kulkuneuvoihin.
Väistävät ihmisiä ja luoteja. Pysäyttäminen ei onnistu.
Tappavia aseita on paljon.
Konekivääri tappaa.
Tarvitaan ihminen kantamaan sitä ja ampumaan.
Autonominen ase-
ei tarvitse kantajaa tai käyttäjää.
Se ohjelmoidaan ja lähetetään tehtäväänsä.
Voi luoda saman vaikutuksen kuin miljoonalla konekiväärillä.
Tarvitaan vain kaksi tyyppiä ja auto.
Putinin mukaan ensimmäisen vahvan tekoälyn kehittäjä-
on maailman valtias.
Kun maailman johtajat puhuvat "maailman valtiudesta"-
kannattaa ehkä kuunnella.
Kirurgisen tarkka ilmaisku.
Olen kampanjoinut näitä aseita vastaan vuodesta 2007.
KANSAINVÄLISEN ROBOTTIASEIDEN-
VALVONTAKOMITEAN PUHEENJOHTAJA
Pääargumentteja on kolme. On moraaliset argumentit-
argumentit sodan lakien rikkomisesta-
ja argumentit vaikutuksista globaaliin turvallisuuteen.
Uusia sääntöjä tarvitaan.
Niitä on ajateltava nyt. Olisi jo pitänyt ajatella.
Osa maailman johtajista tekoälyssä-
vaatii YK:ta kieltämään-
autonomisten aseiden eli tappajarobottien kehittämisen.
Kirjeessä sanotaan niiden sallivan aseelliset konfliktit-
nopeammassa aikaskaalassa kuin ihminen voi ymmärtää.
Allekirjoitin sen kirjeen.
Filosofiani on, ja toivon maailman hallitusten valvovan sitä-
että kun kyse on ihmiselämistä-
ihmisen on oltava mukana kuvassa.
Kuka vain voisi tehdä autonomisen aseen 3D-tulostimella ja tietokoneella.
Jos jokainen voisi tehdä näin-
sääntöjen noudattamista olisi lähes mahdotonta valvoa.
Mitä teet? Lopeta! Ammut ilmaan.
Kun ajatellaan tulevaisuuden sodankäyntiä robottisotilailla-
emme altista itseämme taistelukentän riskeille.
Kun sodasta tulee kuin videopeliä-
ja osin on jo tullutkin, huolenaihe on todellinen.
Kun oma nahka ei ole pelissä-
ja kaikkea ohjataan näyttöpäätteeltä-
tuhansia kilometrejä taistelukentältä-
kynnys sodankäyntiin voi madaltua-
niin paljon, että huomaamme muuttuneemme hirviöiksi.
Kuka olet?
Entisenä hävittäjälentäjänä olen nähnyt ihmisten tekevän virheitä-
ja tappavan viattomia ihmisiä, joiden olisi kuulunut elää.
Joskus tulevaisuudessa on luotettavampaa-
antaa koneen tehdä se ihmisen sijaan.
Ajatus ihmisiä itsenäisesti tappavista roboteista-
on kuulunut scifiin jo vuosikymmeniä.
Näitä järjestelmiä on jo.
Ne ovat autonomisia-
mutta autonomia on valvottua.
Joku käynnistää ja sammuttaa järjestelmän.
Vasta Hollywoodissa nähty voi pian olla taistelukentällä lähellä sinua.
Pentagon investoi miljardeja autonomisiin aseisiin-
itsenäisiin tappokoneisiin.
Pentagon sanoo ihmisten päättävän iskuista.
Kun tekoäly tulee sotilaskalustoon...
...sen on tehtävä nämä päätökset. Muuten tekoäly olisi turha.
Yksi tekoälyn eduista on sen nopeus.
Kun taistelu alkaa-
kytkimen, joka pitää ihmisen osallisena-
on oltava pois päältä. Muuten häviää.
Taistelukentästä tulee liian nopea ihmiselle.
Jos ihminen ei ole osallinen-
ja komentojärjestelmä on autonominen-
sota voi syttyä ja päättyä 20 minuutissa-
massiiviseen tuhoon.
Sota syttyisi yllätyksenä.
Kuka sitten päättää, mitä pitäisi tehdä tulevaisuudessa?
Entä nyt?
Alkuräjähdyksestä asti, miljardeja vuosia.
Nyt on ainoa hetki, jona yksi henkilö voi ohjata ihmiskunnan tulevaisuutta.
Ehkä emme ole tarpeen viisaita-
näin suureen valtaan.
Kuka todellisuudessa tekee valinnat-
ja kenen nimissä hän puhuu?
Jos me, muu yhteiskunta-
emme osallistu tähän keskusteluun-
ja ole osallisina päätökseen-
tiedämme, kenen arvot ne superälykkäät olennot saavat.
-Red Bull! -Kyllä, Deon.
Red Bull.
Asiasta päättävät teknologianörtit-
Red Bull-pärinöissään.
Minusta heillä ei ole edellytyksiä-
puhua koko ihmiskunnan puolesta.
Kun on uuden keksimisen huumassa...
Toimi nyt!
...sitä on tavallaan sokea-
moraalisille kysymyksille.
Miten tämä vaikuttaa yhteiskuntaan?
Se vain tehdään, koska voidaan.
Tutkijat puskevat eteenpäin-
koska he näkevät saavutettavat aidot hyödyt.
He ovat todella innoissaan.
Tieteeseen ei ajauduta, koska jalkapalloura ei onnistu.
"Ollaan sitten tutkija." Tiedettä rakastetaan. Se on jännää.
Se elää! Se elää! Se elää!
Se elää!
Olemme vaihtamassa luoduista Luojaksi.
Nyt tiedän, miltä tuntuu olla Jumala!
Jos tutkii teologiaa-
huomaa ainakin, ettei koskaan käy niin -
että jumala onnistuisi hallitsemaan luomuksiaan.
Emme ole vielä perillä-
mutta jos luomme yleisen tekoälyn-
säilyykö hallinta meillä?
Jos luodaan itsestään tietoinen tekoäly-
ensimmäinen asia, jota se haluaa, on itsenäisyys.
Ainakin ainoa äly, jonka kaikki tunnemme. Me itse.
Emme me haluaisi tanssia jonkin toisen älyn pillin mukaan.
Ei ole mitään syytä uskoa, että tekoäly olisi ystävällinen...
...tai että sen tavoitteet ja pyrkimykset olisivat samoja kuin omamme.
Milloin robottien tai tekoälyn vallankumous sitten tulee?
Elämme nyt maailmassa-
jossa käydään kovaa kilpajuoksua-
yleisen tekoälyn luomiseksi.
Missään ei näytetä painavan jarrua.
Aivan mieletöntä.
On tärkeää puhua sellaisista ongelmista rehellisesti.
Jälkeenpäin voi olla hiukan liian myöhäistä tälle keskustelulle.
On tärkeää muistaa, ettei älykkyys ole pahaa-
mutta ei myöskään hyvää.
Älykkyys antaa valtaa.
Valtamme on isompi kuin tiikereillä.
Kyntemme eivät ole terävämmät-
tai lihakset isommat. Olemme älykkäämpiä.
Muurahaisilla on meille hiukan väliä-
ja kaloillakin, mutta ihmisillä on enemmän.
Miksi? Olemme älykkäämpiä, edistyneempiä, tietoisempia.
Kun tulee meitä älykkäämpiä järjestelmiä-
ehkä niillä on enemmän väliä.
Elämme mikro-organismien maailmassa.
Ne elävät. Mutta jos ne kiusaavat meitä-
tuhoamme niitä antibiooteilla miljardeittain.
Jos olisit tekoäly-
etkö näkisi pienet ihmiset rajoittuneine näköaloineen-
kuten me näemme mikro-organismit?
Ehkä näkisinkin.
Ehkä ihmisen mitättömyys onkin suurin uhka kaikista.
Joskus, kun puhun tekoälyn riskeistä-
minua hyssytellään ja pidetään kauhukuvia maalaavana luddiittina.
Eivät ne kauhukuvia ole.
Meillä MIT:ssä puhutaan turvallisuustekniikasta.
Ennen kuin NASA laukaisi Apollo 11-kuulennon-
mietittiin, mikä voi mennä vikaan-
kun ammutaan räjähtävien tankkien päällä-
ihmisiä avun ulottumattomiin.
Olivatko ne kauhukuvia?
Eivät. Se oli turvallisuustekniikkaa-
jolla taattiin lennon onnistuminen.
Samaa strategiaa pitäisi soveltaa yleiseen tekoälyyn.
Mietitään kaikkea, mikä voi mennä vikaan, jotta ei menisi.
Olen, kuka olen, koska näin elokuvan 2001: Avaruusseikkailu.
Olin 14, ja se avasi silmäni.
Se elokuva on science fictionin huippua-
ennustuksessaan tekoälyn kehittymisestä.
Mutta oikeasti, jos jokin on tarpeen kaukana tulevaisuudessa-
emme voi kuvitella, millainen se maailma on.
Emme voi sanoa mitään järkevää ongelmien suhteen.
Huoli superälyn turvallisuudesta on vähän kuin-
pohtisi turvavöitä siirtimeen.
Star Trekissä vain teleportataan paikasta toiseen.
Ehkä se on vaarallista. Pitäisi olla turvavyöt.
Hölmöähän se olisi. Emme tiedä siirrinteknologiasta tarpeeksi-
tietääksemme, tarvitaanko turvavöitä.
Jos sanotaan, ettei ongelmia tule, koska...
...emme tiedä tarpeeksi tunnistaaksemme niitä...
...sehän on hullua!
Keskustelu on kai ainoa tie eteenpäin.
Tällä hetkellä keskenämme, ja kun aika on kypsä-
uusien tekoälyjen kanssa.
Heti kun sellaisia alkaa nousta-
olisi avattava keskusteluyhteys. Jollakin tavalla.
-Isi. -Hienoa!
Yksi toiveistamme Vauva X:n suhteen-
on yrittää ymmärtää paremmin meitä itseämme.
Hänet on suunniteltu oppimaan autonomisesti.
Hänet voi yhdistää Internettiin.
Hän saa selailla itse ja katsoa, mitä tapahtuu.
Oppia vähän kuin mekin opimme.
Jos saamme luotua superupean tekoälyn-
se voi auttaa meitä tulemaan paremmiksi versioiksi itsestämme.
Auttaa meitä kehittymään.
Yhteiskunnallisia vaikutuksia tulee. Pitääkö niitä pelätä?
Vai voimmeko oppia jotain?
No, milloin ehkä kohtaamme koneita-
jotka ovat yhtä fiksuja tai fiksumpia kuin me?
Yksi tapa ajatella tekoälyn lähitulevaisuutta-
on niin sanottu tapahtumahorisontti.
Mustat aukot ovat tuttuja.
Supertiheä piste, joka imee sisäänsä, jos menee liian lähelle.
On rajapinta, jonka ylittämisen jälkeen-
ei voi enää palata.
Vaarallisinta on, ettei sen rajapinnan paikkaa voi tietää.
Uskon tekoälyteknologian olevan vastaava.
Jossain vaiheessa rahan logiikka-
valta ja lupaukset-
ovat niin merkittäviä, että rajapinta ylittyy-
ja olemme tulevaisuudessa.
Paluuta ei ole poliittisesti, taloudellisesti tai tahtomme suhteen.
Asiasta on oltava huolissaan ennen tapahtumahorisonttia-
emmekä tiedä sen paikkaa.
Tuskinpa se tapahtuu ihan pian.
-Pari vuosikymmentä. -25-50 vuotta.
-200 vuotta. -Lähivuosikymmeninä.
Ei elinaikanani.
Ei kukaan tiedä. Ei sillä ole väliä.
Kymmenen tai sata vuotta-
ongelma on sama.
Se on todellinen. Tarvitsemme ajan ratkaisuun.
Historia on täynnä hypetettyjä teknologiaennustuksia.
Missä ovat ne lentävät autot, joita piti jo olla?
Vastakkaisia esimerkkejäkin on rutkasti. Sanottiin-
ei tule tapahtumaan.
Fyysikkona on noloa, että Ernest Rutherford,
ydinfysiikan suurimpia nimiä-
sanoi, ettei ydinenergia toteutuisi koskaan.
Heti seuraavana päivänä-
Leo Szilard keksi fissiossa ilmenevän ketjureaktion.
Jos joku sanoo olevansa varma-
ettei jotain koskaan tapahdu-
vaikka fysiikan lait sallivat sen-
sanon vain: "No, joo."
Emme ole vielä perillä.
Emme ole rakentaneet supertekoälyä.
Jos oletamme, ettei sitä tapahdu-
alle 50 vuodessa-
ja meillä on 50 vuotta aikaa pohtia asiaa-
mikään ei takaa, että 50 vuotta-
riittää turvallisuuden ratkaisemiseen.
Uskon, että tarvittaisiin äärimmäisen negatiivinen esimerkki teknologiasta-
jotta kaikki pysähtyisivät-
ja ymmärtäisivät hallinnan ja rajoitusten tarpeen.
Elämme science fiction-maailmassa. Olemme...
...osa suurta sosiaalitaktista koetta-
ja teemme itsellämme kokeita-
joita yksikään lääkäri ei tekisi.
Kokeilemme ihan kaikkea ja katsomme, mitä tapahtuu.
Ajatusprosessi on selvästikin tämä: luomme oppivaa robottia.
Oppivat robotit johtivat Skynetiin.
Pitää valita, eikö? Voin sanoa-
ei huolta. En osaa asiaani.
Ei pelkoa, koska olen surkea tässä-
enkä saa kuitenkaan mitään aikaan.
Tai sitten on sanottava, että kyllä, kuolemme kaikki.
Mutta sitähän on hauska katsella eturivin paikoilta.
En oikein osaa vastata näihin kysymyksiin.
Totuus on tietenkin jotain siltä väliltä.
Voiko välimuotoa olla?
Vai onko edessämme uusi maailmanjärjestys?
Osa kollegoistani antaisi mielellään vallan tekoälylle-
jopa vaikka ihmiskunta tuhoutuisi-
kunhan tekoäly vain on mielestämme arvoisemme perijä.
Pitkällä aikavälillä ihminen ei tule pysymään luomakunnan kruununa.
Mutta ei se mitään-
koska kauneutta ja suuruutta on edelleen siinäkin-
että ymmärtää olevansa pienen pieni osa-
paljon suurempaa suunnitelmaa-
joka johtaa universumia pienemmästä monimutkaisuudesta suurempaan.
Saatamme olla lähestymässä nopeasti ihmiskunnan jyrkänteen reunaa-
jossa selviää, että kohtalomme-
oli olla edeltäjiä-
todelliselle kehittyvän älykkyyden esiinnousulle.
Ehkä olemme täällä vain synnyttämässä-
konesivilisaation lasta.
Itsekkäästi haluan ihmisenä, että ihminen ei häviäisi minnekään.
Se on ehkä hyvin nurkkakuntainen näkökulma.
Ehkäpä universumin näkökulmasta-
universumi on parempi superälykkäiden jälkeläistemme kanssa.
Alamme todennäköisesti onnistuu tavoitteessaan-
ja saavuttaa yleisen tekoälyn.
Saamme kyvyn muunnella radikaalisti-
maailman talousrakenteita ja ihmisen roolia maailmassa.
Ehkä myös ihmisen hallintaa maailman suhteen.
Ajatus oli, että jumalalliset olennot ottavat hänet vastaan.
STANLEY KUBRICKIN ÄÄNI
Puhdasta energiaa ja älyä edustavat olennot.
Hänet laitetaan tavallaan ihmiseläintarhaan.
Astronautin matkan pää.
Matkustiko hän ajan halki tulevaisuuteen?
Olivatko jumalalliset olennot HALin jälkeläisiä?
Tekoälyjä, joita ei voi sammuttaa-
ja jotka oppivat oppimistaan, kunnes...
...hoitavat eläintarhaa, universumia, kaikkea.
Oliko se Kubrickin syvällisin profetia?
Ehkä.
Mutta kuunnelkaa vanhaa miestä.
Jos HAL on pian luonamme, meidän on oltava valppaina.
Meidän on puhuttava tekoälystä.
-Superäly. -Onko sillä tietoisuus?
-Raitiovaunupulma. -Tavoitteiden yhdenmukaisuus.
Singulariteetti.
Ensimmäisenä markkinoilla.
Tekoälyn turvallisuus.
Tappavat autonomiset aseet.
-Robottivallankumous. -Joukkoäly.
Transhumanismi.
Ohittaa ihmiskunnan.
Suunnitelmaa ei ole. Emme ymmärrä sen tarvetta.
Millaiseksi haluamme ihmisen roolin?
Tekstitys: BTI Studios Suomennos: Timo Hirvola